How Do VLMs Behave When Blind or Misled? Behavioral Evaluation of VLMs on Scientific Figures
视觉语言模型在视觉缺失或被误导时的行为评估:科学图表基准
🧭 VLM 不确定性行为评估与基准
University of Aberdeen, UK · International Institute of Information Technology Hyderabad, India · University of Technology Nuremberg, Germany · University of Southern California, USA
提出 SciFigBench 与 A-R-I 框架,系统评估 VLM 在科学图表上的不确定性行为,揭示高精度不等于高可靠性
📌 工作参考价值(3 点)
- A-R-I 框架可改造成多模态商品理解质检:当商品图模糊、文字遮挡时,模型是否应承认“看不清”而不是编造卖点;可设置 blur/裁剪变换 + 强制确认 unreadable 区域,评估模型在低质量图片上的拒答率。
- resistance probes / caption-bias probes 可借鉴为“图-文不一致”检测:商品主图与标题/卖点描述冲突时,模型是否会被营销文案带偏?可构造对抗样本测试多模态推荐/审核模型的抗误导能力。
- 将“高感知精度≠行为可靠”的结论用于模型选型:在商品图 OCR、广告素材审核等场景,除了 accuracy,还要看 hallucination rate 和 uncertainty admission,类似 Gemini 3.1 Pro 在阻力分数上表现更强,可能更适合需要安全拒绝的业务。